根據IDC近期報告，全球二九％的企業高層表示，會在二○二三年投資生成式AI。問題來了，英特爾的近期研究指出，七六％的IT主管認為，要提升運算力因應業務需求，同時又要節能減碳，將是一大挑戰。
企業真的無法兼顧人工智慧（AI）與永續發展，推動更永續的AI？
解決高能耗問題
推動AI普及就是最佳解
十一月六日，《今周刊》舉辦「ESG永續台灣：永續國際峰會二○二三秋季場」，邀請多位國內外相關領域專家分享觀點與經驗，其中，美國半導體巨擘英特爾的產品永續長、負責推動產品永續的Jen Huffstetler，就以「AI運算世代驅動永續發展」為題，跨海分享她對人工智慧及永續議題的想法。當台灣積極朝淨零碳排目標努力時，我們如何從英特爾的經驗中借鏡學習？
專講一開始，她就引用史丹佛大學的報告指出，當今兩大生成式AI模型：Gopher及GPT-3，每次訓練模型均須消耗超過百萬度的電量，碳排放量介於三五○到五○○噸，「訓練這些模型一次，就產生超過一輛車生命週期的碳排放，或是一個人整年的排放量。」
不僅訓練模型會耗費大量能源，應用AI「推論」時更須大量運算力。Google發現，有六成機器學習能耗是用在推論上；Meta也曾公開表明，五○至六五％的機器學習碳足跡都在推論。且從一九到二一年，推論的基礎設施就增加了二．五倍。因此，究竟如何讓AI永續節能？
「我們相信，善用AI，正是永續發展的解決方案！」Huffstetler強調，模型、軟體、硬體以及「執行時序」等幾個項目最需要優化。
她指出，優化模型並利用軟體工具提高效率，可以顯著節能減碳。「首先，強調數據重質不重量，」如此一來，數據集較小，訓練所需能耗也跟著變少，「研究顯示，在訓練過的神經網路中，可精簡或移除的參數高達九九％。」
.jpg)